Много големи имена в група от малко вероятни съюзници, които засега търсят забрана на AI „суперинтелекта“

Принц Хари и брачната половинка му Меган се причислиха към видни компютърни учени, икономисти, художници, евангелски християнски водачи и американските консервативни коментатори Стив Банън и Глен Бек, с цел да призоват за възбрана на AI „ суперинтелекта “, който съгласно тях може да заплаши човечеството.

Писмото, оповестено в сряда от политически и географски разнообразна група обществени персони, е ориентирано непосредствено към софтуерни колоси като Гугъл, OpenAI и Meta Platforms, които се надпреварват между тях за създаване на форма на изкуствен интелект, предопределен да надмине хората в доста задания.

Изявлението от 30 думи гласи: „ Ние призоваваме за възбрана върху развиването на суперинтелигентност, която да не бъде анулирана, преди да има необятен теоретичен консенсус, че това ще бъде направено безвредно и следено, и мощно публично присъединяване. “

В преамбюла писмото отбелязва, че AI инструментите могат да донесат здраве и разцвет, само че наред с тези принадлежности, " доста водещи AI компании имат декларираната цел да изградят суперинтелигентност през идващото десетилетие, която може доста да надмине всички хора всъщност по всички когнитивни задания. Това породи опасения, вариращи от човешкото икономическо остаряване и обезвластяване, загуба на независимост, цивилен свободи, достолепие, и надзор, към нац опасности за сигурността и даже евентуално човешко изгубване. "

Принц Хари добави в персонална записка, че „ бъдещето на ИИ би трябвало да служи на човечеството, а не да го замества. Вярвам, че същинският тест за прогрес ще бъде не какъв брой бързо се движим, а какъв брой умно управляваме. Няма втори късмет. “

Заедно с херцога на Съсекс подписа брачната половинка му Меган, херцогинята на Съсекс.

„ Това не е възбрана или даже мораториум в нормалния смисъл “, написа различен подписал, Стюарт Ръсел, пионер в ИИ и професор по компютърни науки в Калифорнийския университет в Бъркли. „ Това е просто предложение да се изискват съответни ограничения за сигурност за технология, която съгласно нейните разработчици има забележителен късмет да аргументи изгубване на хората. Прекалено доста ли е да желаеме? “

Също по този начин подписаха пионерите на ИИ Йошуа Бенгио и Джефри Хинтън, съ-носители на премията Тюринг, най-голямата премия в компютърните науки. Хинтън също завоюва Нобелова премия за физика предходната година. И двамата бяха вокални в привличането на вниманието към заплахите от технология, за чието основаване са помогнали.

Но в листата има и някои изненади, в това число Банън и Бек, в опит на уредниците на писмото от нестопанската организация Future of Life Institute да се извърнат към придвижването на президента Тръмп Make America Great Again, макар че чиновниците на Белия дом на господин Тръмп се стремят да понижат рестриктивните мерки за развиването на ИИ в Съединени американски щати

Също в листата са съоснователят на Apple Стив Возняк; английският милиардер Ричард Брансън; някогашният ръководител на Обединения комитет на началник-щабовете на Съединени американски щати Майк Мълън, който е служил при администрациите на Републиканската и Демократическата партия; и специалистът по външна политика на Демократическата партия Сюзън Райс, която беше консултант по националната сигурност на президента Барак Обама.

Бившият президент на Ирландия Мери Робинсън и няколко английски и европейски парламентаристи подписаха, както и актьорите Стивън Фрай и Джоузеф Гордън-Левит, както и музикантът will.i.am, който другояче е възприел AI в основаването на музика.

Призовава се за нараснало внимание  

„ Да, ние желаеме характерни AI принадлежности, които могат да оказват помощ за лекуването на заболявания, да укрепят националната сигурност и така нататък, “ написа Гордън-Левит, чиято брачна половинка Таша Маколи беше в борда на шефовете на OpenAI преди катаклизма, довел до краткотрайното премахване на основния изпълнителен шеф Сам Олтман през 2023 година „ Но би трябвало ли AI също по този начин да имитира хората, да подстригва децата ни, да ни трансформира всички в наркомани и да прави милиони долари, показвайки реклами? Повечето хора не желаят това. “

Писмото евентуално ще предизвика продължаващи диспути сред изследователската общественост на ИИ по отношение на вероятността от гигантски ИИ, техническите пътища за достигането му и какъв брой рисков може да бъде.

„ В предишното най-много фанатиците са били против маниаките “, сподели Макс Тегмарк, президент на Института за бъдещето на живота и професор в Масачузетския софтуерен институт. „ Чувствам, че това, което в действителност виждаме тук, е по какъв начин рецензията е станала доста мейнстрийм. “

Етикетирането усложнява дискурса  

Объркването на по-широките диспути е, че същите компании, които се стремят към това, което някои назовават суперинтелигентност, а други назовават неестествен общ разсъдък, или AGI, също от време на време раздуват опциите на своите артикули, което може да ги направи по-продаваеми и способстваха за опасения по отношение на ИИ балон. Наскоро OpenAI беше посрещнат с насмешки от математици и учени от ИИ, когато неговият откривател съобщи, че ChatGPT е схванал нерешени математически проблеми - когато това, което в действителност направи, беше да откри и заключи това, което към този момент беше онлайн.

„ Има доста неща, които са пресилени и би трябвало да внимавате като вложител, само че това не трансформира обстоятелството, че – намалявайки мащаба – изкуственият разсъдък се разви доста по-бързо през последните четири години, в сравнение с множеството хора предвидиха “, сподели Тегмарк.

Групата на Tegmark стои и зад писмо от март 2023 година – към момента в зората на комерсиалния AI взрив – което приканва софтуерните колоси краткотрайно да спрат създаването на по-мощни модели на AI. Нито една от огромните AI компании не се вслуша в този апел. И най-известният подписал писмото от 2023 година, Илон Мъск, в това време безшумно основаваше собствен личен започващ AI, с цел да се конкурира с тези, които искаше да вземе 6-месечна пауза.

Попитан дали този път още веднъж се е свързал с Мъск, Тегмарк сподели, че е писал на основните изпълнителни шефове на всички огромни разработчици на AI в Съединени американски щати, само че не е очаквал те да подпишат.

„ Наистина им съчувствам, почтено казано, тъй като те са толкоз заклещени в тази конкуренция към дъното, че просто изпитват неизпълним напън да продължат и да не бъдат изпреварени от другия “, сподели Тегмарк. „ Мисля, че по тази причина е толкоз значимо да се стигматизира конкуренцията за суперинтелигентност до точката, в която държавното управление на Съединени американски щати просто се намесва. “

© 2025 The Associated Press. Всички права непокътнати. Този материал не може да бъде оповестен, предаван, пренаписван или популяризиран.

ИИ. Разделете | America Unfiltered

(06:01)

Авторски права ©2025 CBS Interactive Inc. Всички права непокътнати.